大模型 编程 开发 开源
-
你和 AI 编程助手聊了 30 轮。突然,它报错了。不是你的代码有问题,是对话历史太长,token 超过了上下文窗口限制。 这是所有 LLM 编程助手都必须面对的问题。Earendil 官方博客最近发表了一篇科技文章,详细解释他们的编码助手 Pi 是如何处理这个问题的——通过一个叫「compaction」的机制。 两个选择,都不完美 当上下...

